Vào năm 1888, chỉ sau hai năm thành lập câu lạc bộ, Arsenal khi đó với cái tên là Royal Arsenal đã chọn cho mình biểu tượng, gồm 3 cột tượng trưng cho những khẩu pháo thần công hướng về phía Bắc, tương tự như các huy hiệu của Khu Metropolitan vùng Woolwich (ngày nay, nó trở thành các huy hiệu của khu Greenwich của Luân Đôn). Đôi khi, biểu tượng có thể bị nhầm lẫn với những ống khói, nhưng với hình ảnh đầu một con sư tử được chạm khắc, và với một cascabel[nb 1] được đặt trên đó để trở thành biểu tượng của đội bóng. Nó đã được bỏ bớt sau khi chuyển tới sân Highbury vào năm 1913 và được khôi phục năm 1922, khi câu lạc bộ chọn biểu tượng gồm 1 một khẩu thần công hướng về phía Đông, kèm theo biệt danh của câu lạc bộ, The Gunners (tiếng Việt: Pháo Thủ), được đính vào đó. Biểu tượng này chỉ được sử dụng đến năm 1925, khi Arsenal đổi biểu tượng thành hình với khẩu pháo nhỏ hơn, hướng về phía Tây với dòng chữ The Gunners được khắc bên cạnh.[62]

Năm 1949, câu lạc bộ đã đóng một biểu tượng mới, với khẩu pháo được đặt ở dưới tên câu lạc bộ, viền màu đen, trên biểu tượng của Khu Metropolitan của Islington, ở dưới vẽ một dải băng viết theo tiếng Latin: Victoria Concordia Crescit (tiếng Việt: Chiến thắng đến từ sự hài hoà). Nó được thiết kế bởi một biên tập viên của đội bóng, Harry Homer.[62] Lần đầu tiên, biểu tượng được kết hợp bởi màu sắc, sau đó có thay đổi chút ít do hoàn cảnh lúc đó, rồi rút gọn chỉ còn ba màu: đỏ, vàng, xanh lá cây. Vì có nhiều phiên bản khác của biểu tượng, Arsenal đã bất lực trong việc mua bản quyền của nó. Mặc dù đội bóng đã đăng ký biểu tượng như một nhãn hiệu, nhưng họ phải cạnh tranh (cuối cùng thắng) trong một cuộc chiến pháp lý về vấn đề bản quyền với một hãng buôn đường phố ở địa phương, và là nơi "không chính thức" bán các mặt hàng từ Arsenal,[63] từ đó thì Arsenal mới thành công trong việc bảo hộ bản quyền pháp lý của biểu tượng. Do đó, năm 2002, Arsenal đã giới thiệu một biểu tượng mới, với các đường cong đẹp và hiện đại hơn nhưng với một phong cách đơn giản, được bảo hộ bản quyền.[64] Khẩu pháo hướng về phía Đông, tên của đội bóng được viết bằng kiểu chữ sans-serif ở phía trên của khẩu pháo. Màu xanh lá cây đã được thay thế bằng màu xanh đậm. Biểu tượng mới đã bị một số người hâm mộ chỉ trích. Hội cổ động viên của Arsenal đã lên tiếng rằng, câu lạc bộ đã bỏ qua nhiều các thiết kế về lịch sử và truyền thống câu lạc bộ, thay bằng một thiết kế mới mẻ và hiện đại, tuy nhiên chưa tham khảo ý kiến người hâm mộ.[65]

Đến thập niên 60 của thế kỷ XX, hình vẽ biểu tượng câu lạc bộ được gắn trên áo đấu để tham dự các trận đấu lớn như chung kết Cúp FA, thường là hình thức lồng tên câu lạc bộ với màu đỏ trên nền trắng.[66]

Các kiểu chữ viết lồng nhau được viết theo phong cách Art-Deco, các chữ A và C trên hình vẽ biểu tượng được bố trí theo kiểu cách bóng đá hơn chữ F, tất cả được đặt trong một bộ khung hình lục giác. Ví dụ, đầu tiên đây là một logo của một tổ chức, sau đó được giới thiệu như một phần trong thương hiệu trước đây của Herbert Chapman tại câu lạc bộ vào những năm 1930, mặc dù chưa được sử dụng trên áo đấu trong trận chung kết Cúp FA nhưng lại là một chi tiết trong thiết kế sân Highbury, bao gồm các lối vào chính và trong việc ốp lát nền các tầng.[67] Từ năm 1967, trên áo đấu thường xuyên xuất hiện hình vẽ khảu pháo trắng, cho đến khi được thay thế bởi biểu tượng câu lạc bộ, đôi khi có thêm biệt danh "The Gunners", trong những năm 1990.[66]

Mùa giải 2011–12, Arsenal kỷ niệm 125 năm thành lập câu lạc bộ. Nhân dịp này, đội bóng cho thiết kế một biểu tượng mới, được đính kèm trên áo đấu của họ để thi đấu trong suốt cả mùa giải. Biểu tượng hầu hết có màu trắng, xung quanh bao gồm 15 lá cây sồi ở bên phải và 15 lá nguyệt quế ở bên trái. Những chiếc lá sồi biểu thị cho 15 thành viên cũ được tìm thấy của câu lạc bộ đã gặp nhau ở quán rượu Royal Oak. Còn 15 lá nguyệt quế tượng trưng cho các chi tiết được thiết kế trên 6 đồng xu bởi những người thành lập đội bóng. Các lá nguyệt quế còn thể hiện cho sức mạnh đội bóng. Để hoàn thành được biểu tượng này, các lá sồi và nguyệt quế được biểu diễn ở hai bên của khẩu hiệu "Forward" (tiếng Việt: Tiến lên) ở phía dưới cùng của biểu tượng.[68]